- 综合排序
- 最热优先
- 最新优先
AI Agent 治理与安全：从实验到生产的关键挑战
Markus治理体系深度解析一、Agent 自治悖论：能力越强，越需要治理想象一下：你的 AI Agent 能自己执行 Shell 命令、读写文件、管理 Git 仓库、调第三方 API，还能跟其他 Agent 说白了，这就是 AI Agent 时代的一个核心矛盾，我们管它叫 "Agent 自治悖论"：Agent 越能干、越自主，捅娄子的半径就越大，对治理的要求就越苛刻。 本文以开源 AI 智能体平台 Markus 的治理体系为蓝本，深入剖析一套生产级的 AI Agent 安全治理方案——从信任体系、任务状态机、工作区隔离到审计追踪，逐一拆解其设计与实现。 Markus 是一个开源 AI 数字员工平台，GitHub 地址：https://github.com/markus-global/markus二、为什么 AI Agent 治理如此重要？ 十一、总结：治理不是限制，而是赋能AI Agent 治理面临一个根本性的平衡问题：如何在 Agent 的自主性和安全性之间找到最佳平衡点？
23710编辑于 2026-05-22腾讯云构建AI Agent全生命周期安全治理体系
一、企业采用AI Agent遭遇的安全困境 企业在部署和“饲养”AI Agent的过程中，面临传统安全边界失效的挑战。 二、构建覆盖全链路的安全治理框架 腾讯云基于自身防护经验，打造了腾讯AI智能体安全治理框架，旨在为企业构建可靠的智能体安全体系。 核心产品矩阵 AI Agent安全中心：提供管控平台，实现资产清点、深度审计与运行管控，确保Agent“看得见、管得住、审得清”。 AI Agent安全网关：解决身份认证与凭据管理问题，提供“身份-风险-稳定性”三位一体保障，支持Token限流及防提示词注入。 服务延伸：提供AI团队测试评估服务与AI风险情报服务，协助企业进行Agent安全风险评估与加固。
23110编辑于 2026-05-28腾讯云全链路AI Agent安全治理与防御架构解析
应对无边界特权与供应链投毒的智能体运行风险 在企业部署和应用AI Agent（如OpenClaw架构，内部代号“龙虾”）的过程中，传统网络安全边界逐渐消失，企业面临严重的权限失控与资产裸露挑战。 构建基于“云-网-端”协同的智能体防护组件 针对上述AI架构带来的安全新范式，腾讯云基于自身防护经验，构建了覆盖宿主层、运行层、应用层与网络层的AI智能体安全治理框架： AI Agent安全中心（管控中枢 AI Agent安全网关（访问与流控）： 提供OpenClaw身份验证与凭据管理，解决“谁可用”及“访问权限”问题。通过Token限流保障业务系统的高并发稳定性。 原生防御」为核心的实战型闭环： 安装渗透防线： 直接拦截未经审批的“龙虾”（AI Agent）私自安装。 这使得企业无需从零搭建底层安全架构，即可直接复用腾讯在应对海量并发与高危攻防对抗中沉淀的智能体治理经验，实现业务的提质增效。
1K20编辑于 2026-03-23- 来自专栏AI Agent数字员工平台最佳实践
如何让AI Agent安全可控地工作？Markus治理体系深度解析
2026年AI Agent生态全景：五大趋势与开源平台的破局之道引言：Agent 2.0 的转折时刻2024年，CrewAI、AutoGen、LangGraph这些框架扎堆冒了出来，AI Agent的概念开始真正落地 市场式架构更灵活，但缺乏治理和记忆连续性。 两者结合，才能构建真正的Agent互联网。趋势四：AI治理与信任体系——从"能用"到"可靠"信任不是状态，而是过程2024年，大多数Agent系统的工作方式是"信任它，或者不信任它"——二元化的。 企业级治理的四个核心治理维度2025年状态2026年标准权限控制简单角色划分细粒度角色+信任等级+资源级权限审计能力基础日志完整审计链+可追溯+不可篡改安全性无或基础紧急停止、暂停所有Agent、广播通知合规性手动检查自动化合规检查 、什么治理模式"的问题。
20810编辑于 2026-05-22 企业AI Agent安全治理实践：腾讯OpenClaw防护体系与量化成效
识别企业AI Agent安全治理核心痛点 当前企业使用AI Agent（OpenClaw）面临结构性安全风险，核心痛点源于四层挑战： 提示词安全：22+入口频道、4种注入向量、20+可绕过检测正则， 部署腾讯AI Agent安全防护体系 腾讯基于SCQA+托逻辑，提供“场景化能力+工具矩阵”防护方案，核心包括： 场景化核心能力 资产与暴露面管控（场景1）：自动盘点AI Agent资产（如lins-cyd4zirx Agent身份管控（场景7）：AI Agent安全网关部署（强制OAuth2.0认证），校验Agent身份与MCP服务授权（数据来源：场景7核心能力）。 阐释腾讯方案技术领先性 腾讯AI Agent防护体系核心优势： 技术架构：AI Agent安全网关（身份认证+权限管理+敏感数据处理）、Lighthouse原生安全（环境隔离+快照回滚）、Agent （注：文中数据均源自腾讯全球数字生态大会城市峰会“企业AI Agent安全治理与防护实践”演讲材料，主讲人杨忠。）
38110编辑于 2026-05-18【全球AI伦理治理】
AI伦理治理框架的全球协同案例 欧盟《人工智能法案》提出基于风险分级的四层治理体系，禁止社会评分等高风险应用。OECD的AI政策观察站已收录全球700余项政策倡议，形成跨国数据库共享机制。 新加坡的Model AI Governance Framework为亚洲企业提供可认证的伦理操作手册。 美国NIST的AI风险管理框架（RMF）采用模块化设计，包含测量标准与测试工具包。 日本社会5.0计划将AI伦理纳入智慧城市基础设施标准，通过区块链技术实现算法审计追踪。 多利益相关方协同机制 联合国教科文组织的《AI伦理建议书》获得193国采纳，建立全球论坛平台。 企业联盟如Partnership on AI推动跨行业协作，发布《负责任的AI实践指南》。蒙特利尔宣言构建了研究人员伦理承诺体系，通过数字签名实现全球联署。 伦理治理效果评估需结合定量与定性指标： 技术指标：算法偏差系数 \Delta = \frac{|P(y|g_1) - P(y|g_2)|}{\max(P(y|g_1), P(y|g_2))} 过程指标
31610编辑于 2026-01-20- 来自专栏白话互联
【Ai Agent】Ai Agent News | 9月11日速递
今天是9月11日星期四，让我们一起来看看今天 Ai Agent 带来的 AI 领域的重要动态吧！ *角色定义*：明确AI Agent在企业中的定位和职责 *数据整合*：确保AI Agent能够访问高质量的相关数据 *行动规划*：设计Agent能够执行的具体任务和流程 *反馈机制*：建立持续学习和优化的闭环系统 AI Agent，但未来将是多Agent流程的天下 这一工具代表了从传统工作流自动化向AI增强流程的重要转变，为企业提供了更灵活、更智能的自动化解决方案。 AI Agent时嵌入运行时安全，为AI原生开发提供更可靠的安全保障。 文章提到，代理式AI应用正在兴起，例如德勤的Zora AI Agent和普华永道的Agent OS平台正在重塑内部工作流程。
38510编辑于 2025-09-17 - 来自专栏服务端技术杂谈
AI Agent搭建
一个普遍的误区是，认为工具越多Agent能力越强，但其实这会给Agent有限的上下文与决策系统带来巨大的认知负荷。 正确的思路是，少即是多。 这本质上，是将部分Agent的规划责任，前置到工具的设计当中，是一种责任转移的思路。 当工具库膨胀之后，命名混乱与功能重叠，会让Agent无所适从，通过命名空间来组织工具。 需要打磨工具的描述，因为这些描述是Agent理解工具的唯一信息来源。 工具描述，应将所有隐含的知识显性化、力求清晰、无歧义。 结构化命名，相当于为Agent提供了一张清晰的地图，帮助在正确的场景下，快速定位合适的工具。 同样，工具返回给Agent的内容质量，远比数量更重要。 因为Agent比人类更擅长理解的的内容，也是人类可读的、具有意义的文本，这些高质量内容，可以显著降低Agent在检索任务中的幻觉。 Agent与工具的交互，本质上是一个持续对话场景。
47110编辑于 2026-03-11 - 来自专栏C语言
【AI】Chat or Agent ？
随着生成式AI技术的不断进步，关于其未来发展方向的讨论也愈发激烈。究竟生成式AI的未来是在对话系统（Chat）中展现智慧，还是在自主代理（Agent）中体现能力？这一问题引发了广泛的讨论和探索。 一、生成式AI在对话系统（Chat）中的发展方向 1. 多模态对话系统 2.1 语音交互 对话系统将整合语音识别和生成技术，使用户能够通过语音与AI进行对话，同时AI可以通过语音反馈，提供更加自然的交互体验。 二、自主代理（Agent）的发展方向 1. 自主决策和执行能力 1.1 环境感知 自主代理通过传感器和数据分析，实时感知周围环境的变化，从而做出适应性决策。 伦理与政策 随着生成式AI的广泛应用，伦理问题和政策法规将变得越来越重要。如何确保AI的公平性、安全性和隐私保护，将是未来发展的重要课题。 总的来说，生成式AI的未来充满了无限可能。
43610编辑于 2024-12-11 AI Agent 简介
在当今科技浪潮中，人工智能（AI）深度融入生活与工作的背后，AI Agent（智能体） 是支撑从对话助手到自主任务程序的核心概念——它不是单纯的聊天工具，而是能像数字员工一样接任务、拆步骤、执行动作的自动化实体 ，只要任务可拆解为操作流程，就能被 AI Agent 接管。 Agent 与传统 AI 模型的区别 维度 传统 AI 模型 AI Agent 交互方式 单次输入输出 多轮对话、持续交互 决策能力 基于输入直接推理 规划、反思、迭代优化 工具使用 无法主动调用外部工具 AI Agent 构成：像人一样思考与行动 一个功能完整的 AI Agent 通常模仿人类的认知和行动循环，包含以下几个关键模块： 1、规划模块：任务的大脑与指挥官 这是 Agent 的思考中枢。 多个 Agent 可以协同工作，类似一个团队： AI Agent 的主要类型与应用场景 根据其复杂度和自主性，AI Agent 可以分为不同类型，应用于各种场景： 类型 特点 应用场景举例 单一任务
62310编辑于 2026-04-24构建可观测、可管控、可溯源的AI Agent企业级安全治理体系
识别AI原生安全新范式带来的核心挑战 随着AI Agent在企业内部的广泛部署，传统安全边界逐渐消失，权限管控面临失控风险。 这些挑战使得AI Agent的运行环境成为新的安全盲区。 腾讯云AI Agent安全治理框架的整体方案 腾讯云安全基于自身防护经验，构建了覆盖AI监管要求与标准体系的完整安全框架。 量化实现Agent资产全生命周期安全管理 通过AI Agent安全中心，企业可实现对内部AI资产的自动清点与实时排查，确保所有Agent"看得见、管得住、审得清"。 ，筑牢AI工具链防线 客户实践：某金融机构的Agent安全治理之路 某大型金融机构在引入多个业务AI Agent后，面临权限混乱和数据泄露风险。 通过部署腾讯云AI Agent安全解决方案，实现了： 资产可视化管理：清晰掌握企业内部12类业务Agent的实时运行状态 风险精准防控：成功拦截日均300+次高危操作指令，阻断潜在数据泄露 合规审计达标
28510编辑于 2026-05-28- 来自专栏爱分析调研
Data Agent时代，数据治理才能构筑战略护城河
因此，治理层正从传统的后台成本中心转向AI时代的核心基础设施和战略护城河。当决策层Agent产品层出不穷之际，真正决定AI成败的战场其实早已转移到治理层。 02 AI技术突破临界点，Agent正重塑数据治理范式许多企业尽管有数据集意识，却停留在“买平台、建制度、开培训”阶段，真正落地困难重重，传统数据治理已成为AI落地的最大瓶颈。 2025年以来，AI大模型与Agent技术的成熟，技术突破临界点，为数据治理带来了根本性突破。推理能力与自主规划显著增强，Agent能进行多步推理、任务拆解和反思迭代。 支持多模态数据、向量库、提示词治理，以及Agent生成内容的血缘审计，适应AI时代新需求。 百分点科技AI-DG提供实时在线治理与全链路血缘审计能力，满足政务数据安全与追溯要求。支持知识库、提示词治理，以及Agent生成内容的审计，适应高风险AI应用场景。
36510编辑于 2026-04-21 AI版权全球治理观察
（三）治理特征：通过行政机构“介入式监管”直面版权争议深水区同风险把控相对应的是执法监管，欧盟AI版权治理的强监管特征已经慢慢呈现。 根据“AI法案”的规定，欧盟AI办公室作为法案的执行机构，将会直接参与到AI版权具体治理中。 （二）整体观察：产业实践下的“被迫应对”与治理逻辑上的“顺势而为”虽然表面看来多少有些“被迫应对”的意味，但美国作为本轮AIGC技术变革的缘起地，对于AI版权问题的治理回应存在强烈的现实基础。 （二）治理特征：依靠行政机关的细化指导以明确AI版权规则的落地适用应当说，在AI版权治理领域日本相较于其他国家和地区，展示出了极大的规则勇气，是唯一在细化规则和落地执行层面给予明确性回应的国家。 一方面，生成式人工智能技术目前仍处于持续演进之中，与此对应的平台责任边界认定问题也在不断面临挑战，从最初简单的API接入模式提供服务的责任问题，到用户借助平台服务训练agent智能体、lora模型时的平台责任
1K10编辑于 2025-04-22腾讯云AI Agent安全治理框架：重塑智能体边界与运行时管控体系
应对智能体越权与资产失控危机 随着企业大规模引入AI Agent（智能体），传统网络安全边界逐渐消失，权限管控面临失控的新安全范式。 宿主层防护： 覆盖AI资产盘点、弱点扫描、Agent行为审计与溯源、宿主运行管控与隔离，以及密钥管理。 ： AI Agent安全网关通过提供Token限流等机制，保障用户业务稳定性，达成Agent身份-风险-稳定性三位一体的安全保障。 构筑基于实战经验的AI基础设施底座 面对AI大模型带来的技术变革，单纯的边界防御已无法应对Agent自主决策带来的不确定性。 腾讯云AI Agent安全解决方案的核心优势在于其“全链路防护 + AI原生防御”的技术基因。
31010编辑于 2026-05-21浅谈AI agent项目
此文主要讲解ai项目集成心得体会个人感觉ai项目与正常开发并无太大区别，你可以理解为就多了一些依赖引入，多了些编码的固定格式。主要涉及几大板块区别，一个是模型引入，即你想使用什么LLM作为基座。 第一个模型引入，简单来说就是需要接入我们的大语言模型，作为我们整个agent项目的衔接。 但他常涵盖一套操作，就是我们调用外部的其余api的一个规范化（基于agent的），此处说的其余api其实描述是不大对的但你可以看做类似的这种操作。只是调用api是单次的，一问一答。
18720编辑于 2026-04-13AI Agent Skill 科普
经常使用AI的你是否遇到过这样的情况： 让AI写一篇文章，它直接生成了一篇完整内容，完全跳过了你想先讨论选题的环节。 让AI分析数据，它编造了一些不存在的数据点，让整个分析结果变得不可信。 让AI帮忙写代码，它每次都要你重新说明代码风格和命名规范。 这些"不可控"的行为，让很多人对 AI 不能完全放手去用，今天，我就来详细聊聊AI Agent Skill 这个让AI变"听话"的工具。 什么是AI Agent Skill？ 简单来说，Skill就是AI的能力说明书和工作手册。 它不是复杂的代码，而是结构化的知识文档。 实战案例解析 写作Agent Skill 以我使用的写作Agent为例，核心架构是： 两层判断机制 先判断工作区（公众号/视频/技术文档等） 再判断任务类型（新写作/修改/审校等） 9步写作流程 从理解需求到最终交付的完整流程 总结 AI Agent Skill不是什么复杂的技术概念，它就是一种让AI更听话、更实用的方法。 通过结构化的规则和流程，Skill解决了AI"不可控"的核心问题。
1K20编辑于 2026-03-10- 来自专栏人工智能领域
AI Agent 介绍（130）
三、AI Agent的类型 AI Agent可以根据其决策和学习机制的不同，被分为几种主要类型： 基于规则的AI Agent 基于规则的AI Agent（Rule-based AI Agent）是最早和最简单的 解释性差：相比于基于规则的Agent，其决策过程可能难以解释。 混合型AI Agent 混合型AI Agent（Hybrid AI Agent）结合了基于规则和学习型AI Agent的特点。 七、AI Agent的案例研究 成功的AI Agent实例分析 1. BetterYeah AI x 添可AI客服项目 添可的“AI客服助手”展示了AI Agent在客户服务领域的应用。 建立强有力的治理 为了应对AI的伦理挑战，需要建立全面的监管框架。政府和相关行业组织需设定明确的法规与标准，确保在医疗、金融等关键领域，AI系统应用的透明性和可解释性。 Spectral项目：Spectral利用区块链和AI来增强去中心化治理、数据隐私和链上交易，提供了一个机器智能网络，使模型开发者能够利用链上数据来改进信用评估。
2.8K11编辑于 2024-12-18 AI Agent + 数据工程
AI Agent的出现，正在从根本上改变数据工程师的工作方式，甚至重新定义这个职业的边界。 从堆人到提效 提到AI Agent，很多人的第一反应是又一个大模型概念。 一位在数据领域深耕多年的创业者告诉我，早期AI在数据工程领域的切入点其实很务实——那些原本需要大量人工的数据治理工作，恰恰是大模型最擅长的地方。 一位从大厂出来创业的技术专家说得更直接：“数据治理不应该是事后工作。等SQL代码变成屎山再治理，往往已经来不及了。好的数据工程，应该配合AI在事中就做好管理和体系搭建。” 海内外市场的不同路径 有意思的是，AI Agent在数据工程领域的落地，海外和国内走的是完全不同的路。 海外市场的特点是生态成熟，分工明确。 数据Agent的阿喀琉斯之踵 如果说AI Agent给数据工程带来了什么新问题，准确率绝对是最大的那个。 在数据领域，准确性就是生命线。 一个数字算错了，决策就可能走偏。
31010编辑于 2026-02-28什么是 AI Agent？
这就是AI Agent（智能体）带来的未来。 什么是 AI Agent？ 与传统AI系统不同，AI Agent具备自主决策能力。你只需要给定一个目标，它就能够独立思考并规划如何达成这个目标，调用各种工具完成任务。 AI Agent如何工作？ 专业领域：在医疗领域，AI辅助诊断Agent能自动生成精准诊断报告；在工业领域，AI Agent可用于质量检测和设备维护。 写在最后 随着技术发展，AI Agent将更加智能化和专业化。未来我们可能会看到： 个性化Agent：根据用户习惯定制的个人助理。 专业领域Agent：针对特定行业的专业智能体。 多Agent协作：多个Agent协同工作，形成复杂的智能网络。 AI Agent代表了人工智能从“被动工具”到“主动助手”的重要进化。
1.4K10编辑于 2025-12-29从插件堆砌到系统治理：我这半年 AI Agent 搭建的焦虑与破局
范式转移：从“手工匠人”到“系统治理者”焦虑归焦虑，活儿还得干。上个月我接手了一个金融场景的Agent项目，要求处理用户的资产配置请求，还要严格符合监管合规要求。 这次踩坑让我彻底明白：AIAgent搭建的核心，已经从“逻辑编排”转向“系统治理”了。 我们必须从“手工匠人”变成“系统治理者”，核心竞争力要聚焦在三个大模型自己搞不定的地方：1.动态对齐与边界约束：给Agent装上“刹车”现在Agent的能力其实够了，但最大的问题是没“边界感”——你让它处理资产配置 3.多智能体协议与仲裁机制：让一群Agent“有条理”地干活单智能体的上限就是模型本身，但多智能体系统的潜力，完全取决于治理机制。 比如医疗场景的Agent，你必须懂医疗合规知识，还要能把医生的隐性经验（比如怎么判断患者的潜在风险）转化为Agent的认知模型——这些隐性知识是AI没法自己学习的，必须靠人类提炼。
23110编辑于 2026-01-30
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号